Будущее без работы. Технология, автоматизация и стоит ли их бояться - Даниэль Сасскинд

люди с удовольствием покупают и используют в личных целях. Но их последствия будут просачиваться наружу и формировать нашу общую жизнь как политических существ. В прошлом на вопросы свободы, демократии и социальной справедливости давали ответ граждане и политические представители – все мы жили вместе в гражданском обществе. В будущем, если мы будем бездействовать, эти решения будут все чаще приниматься инженерами крупных технологических компаний, выполняющих свою работу без какого-либо контроля. Короче говоря, угроза заключается в «приватизации» нашей политической жизни[628].

Ведомство по надзору за политической властью

Политика в области конкуренции может включать в себя неоднозначные, громоздкие концепции. Тем не менее она задает некую исходную точку для действий. Мы интуитивно понимаем, как выглядит слишком большая концентрация экономической власти, и располагаем разумными, хорошо отлаженными инструментами для борьбы с ней. Если нам не удается прийти к согласию, то мы по крайней мере знаем, из-за чего ссоримся. Однако в отношении политической власти в настоящее время ничего подобного у нас нет. Инстинктивное чувство беспокойства, которое испытывает большинство из нас, размышляя над некоторыми из приведенных выше примеров, доказывает: мы понимаем, что началось нечто пугающее, но не знаем точно, как определять злоупотребление политической властью и как на него систематически реагировать.

В какой мере наша политическая жизнь должна формироваться этими новыми технологиями и на каких условиях? Проблема заключается в том, что на данный момент мы почти полностью оставляем этот вопрос на усмотрение крупных технологических компаний. Мы накладываем жесткие ограничения на экономическую мощь этих компаний, но они могут практически свободно определять свое неэкономическое поведение, переходя в политическую сферу. Мы позволяем им устанавливать свои собственные границы и охранять их. Руководители этих компаний все чаще входят в состав комиссий, советов директоров и органов, которым поручено исследовать широкие последствия применения новых технологий, и вполне понятно, что такое положение дел их устраивает. Генеральный директор Google Сундар Пичаи, например, признает, что опасения по поводу ИИ «совершенно закономерны», но считает, что такие компании, как его, должны «саморегулироваться»[629]. И такой подход широко распространен.

Но действительно ли мы верим, что крупные технологические компании будут сами себя сдерживать и не пользоваться политической властью, сопутствующей их экономическому успеху? И даже если бы они хотели ограничить свою политическую власть, способны ли они на самом деле это сделать? Эти компании могут обладать глубокими техническими знаниями, необходимыми для создания этих новых систем, но это совсем не та способность, что требуется для морального осмысления создаваемых ими политических проблем. В конце концов, программистов нанимают не за ясность и тонкость их этических суждений.

Некоторые левые политики говорят, что мы должны не оставлять такие решения крупным технологическим компаниям, а национализировать их, передав государству контроль над Google, Facebook и другими[630]. Но авторы этого предложения упускают из виду очень важную деталь (помимо многих других проблем, порождаемых этой идеей): нет никаких оснований полагать, что государство будет застраховано от злоупотребления политической властью, созданной этими новыми технологиями. Рассмотрим, например, внедрение в Китае «системы социального кредитования»: к 2020 году правительство хочет оценить и ранжировать всех китайских граждан в соответствии с информацией о них, хранящейся в национальной базе данных. В одном пилотном проекте присуждение баллов определяется такими тривиальными действиями, как получение штрафа за нарушение правил дорожного движения (минус пять баллов), и такими двусмысленными, как «совершение героического поступка» (плюс тридцать баллов). Фотографии «цивилизованных семей» с высокими социальными кредитными баллами размещаются на досках объявлений в общественных местах[631]. По словам чиновников, цель состоит в том, чтобы система «позволяла заслуживающим доверия людям бродить повсюду под небесами и, в то же время, не давала и шагу ступить дискредитированным».

Можно взять и приземленный пример – проблему безопасности данных. Сегодня заголовки газет пестрят историями о том, что крупные технологические компании неправильно обращаются с нашими личными данными. Но не так давно в Великобритании широко обсуждались утечки персональных данных, допущенные чиновниками. Был момент, когда за неправильное обращение с конфиденциальными данными каждый рабочий день увольняли или наказывали в среднем по одному британскому чиновнику[632].

Таким образом, необходима не национализация, а новый регулирующий институт, который будет создан по образцу антимонопольных органов, регулирующих экономическую мощь этих крупных компаний, но заниматься будет ограничением их политической власти. Его можно назвать Ведомством по надзору за политической властью.

Первая задача этого нового агентства будет заключаться в разработке инструментов, которые позволят регулирующим органам систематически выявлять случаи злоупотребления политической властью. В экономической области этим занимаются органы по защите конкуренции; нам нужно нечто аналогичное в этой новой политической сфере. Но насколько вопиющим должно быть ограничение нашей свободы, насколько серьезной должна быть угроза нашей демократии, насколько очевидным должен быть пример социальной несправедливости, чтобы вмешательство стало допустимым? Это серьезные вопросы. На их фоне неясность, с которой сталкиваются антимонопольные органы при ответе на вопрос «будет ли это лучше для потребителей?», может показаться несущественной. Однако сложность не может служить оправданием бездействию; эти новые вопросы требуют ответа. Вместе с тем новое учреждение не должно реагировать чрезмерно жестко. Цель Ведомства по надзору за политической властью не будет заключаться в полном лишении больших компаний политической власти. Подобно тому как органы по вопросам конкуренции принимают во внимание как достоинства, так и опасности экономической мощи, этот новый орган должен выполнять аналогичное уравновешивающее действие. В конце концов, новые технологии улучшают нашу жизнь самыми разными способами.

Разве люди не рады пользоваться предложениями и услугами больших IT-компаний? И разве это не означает, что они согласились со всеми политическими последствиями этих технологий? Нет. Как ясно показывает книга «Политика будущего», ключевой вопрос заключается в том, законна ли политическая власть этих компаний, – и тот факт, что люди охотно используют их продукты и услуги, недостаточен для достижения согласия. Удовлетворенность потребителей может оправдывать экономическую мощь компаний, их прибыль и выплаты руководителям, но политическая власть не должна покупаться или продаваться. Если людям нравится публиковать посты на Facebook, это не дает компании права игнорировать тот факт, что ее платформа используется в зловещих политических целях. Если людям нравится использовать поисковую систему Google, это не означает, что Google может закрывать глаза, когда ее реклама дискриминирует пользователей. Экономический успех – это не индульгенция на то, чтобы грубо управлять нашей политической жизнью.

Ведомство по надзору за политической властью должно располагать широким спектром возможностей для осуществления своей деятельности. Его следует наделить инструментами для расследования и правом инспектировать конкретные компании и тщательно изучать их технологии, чтобы определить, не злоупотребляют ли они